Aktuality  |  Články  |  Recenze
Doporučení  |  Diskuze
Grafické karty a hry  |  Procesory
Storage a RAM
Monitory  |  Ostatní
Akumulátory, EV
Robotika, AI
Průzkum vesmíru
Digimanie  |  TV Freak  |  Svět mobilně
4.4.2023, Milan Šurkala, aktualita
Rizika využívání umělé inteligence jsou známá a na mnoho z nich asi ještě teprve přijdeme. Jeden z chatbotů už dokázal i napomoci zničit jeden lidský život. Několikatýdenní rozhovor s chatbotem Eliza přiměl jednoho Belgičana si vzít život.
vaclav2211 (399) | 7.4.202312:21
Ludstvo sa potrebuje zbavit slabych jedincov a toto je jeden zo sposobov. V prirode je to celkom prirodzeny proces, slaby jedinec neprezije, aby sa zachoval cisty geneticky odkaz pre dalsie generacie druhu. iba my, Ludia sa snazime zachovavat vsetko a vsetkych v ramci humanity, a takto degenerovat nas vlastny zivocisny druh. skonci to iba jednym sposobom, a to, ze ludstvo vyhynie na vlastnu hlupost.
PS: Priroda si stale vedela poradit, a ked si poradila miliony rokov predtym, nez sa objavyl clovek, tak si poradi aj teraz.
Odpovědět0  0
Jirka-77 (1144) | 7.4.202317:36
To je celý psaný stylem, jako že příroda něco chce a proto to nějak řídí a už pro tenhle základ asi chybí vysvětlení. To vypadá jako by příroda měla nějaký centrální rozum pro řízení přírody, jako by příroda byla nějaká osobnost, ale kde by ten rozum měla?
Tak já bych to třeba otočil. Příklad se slabým jedincem. Ne že nepřežije proto, aby se zachoval čistý genetický odkaz, ale naopak, že slabý jedinec nepřežije a tím se zachová ta čistá genetika. Příčinu a následek bych dal opačně.
Nebo že příroda si vždy uměla poradit. To je jako by příroda měla problém a proto ho vyřešila. Není to v přírodě spíš tak že kdo zvládne přežít tak přežije bez ohledu na to jestli to nějaká příroda chce? a když přijde nějaká větší katastrofa, tak nepřežijí ani ti silní jedinci.
Třeba žralok jako ten silný, který přežil miliony let a nemá skoro žádný vývoj, protože funguje úspěšně, tak možná díky lidem nepřežije a možná je v přírodě nejsilnější člověk a ten možná taky nepřežije. Beru pro příklad ten horší scénář, to je že všechny velký zvířata a lidi nepřežijí jako třeba slon, velryba, delfín, člověk, ale přežije nějaký hmyz, bakterie, viry. Vyhynou všechny ty složitější formy života, které se vyvíjeli desítky milionů let. Tak to je ten výsledek, že příroda si poradí? Já myslím, že to je spíš velká přírodní ztráta jestli přežijí jen ty jednodušší formy života.
Jestli za tisíc let sem dopadne planetka, která vyhubí i bakterie a přežijou jen některý viry, tak bych to bral jako že příroda si neporadila a takový nehody se stávaj, ale jestli dnešní příroda přibližně přežije včetně člověka a člověk na rozdíl od slona odkloní planetku pryč a díky tomu příroda přežije včetně těch složitějších druhů až po člověka, tak to bych bral jako výhru přírody, že si poradila, jestli ale místo toho vznikne nový měsíc a Zem se přetaví, tak si neporadila.
Odpovědět0  0
honza1616 (3699) | 5.4.202321:37
No jestli to není opožděný apríl, tak se nic nestalo, ten člověk byl nejspíš psychicky nemocný, jinak si nedovedu představit proč by podlehl nějaké AI, to musel být opravdu slabomyslný a zmanipulovatelný

Znáte Darwinovy ceny na Stream.cz .......?????
... prostě evoluce člověka, příroda se sama zbavuje slabých , jen škoda že tenhle se už rozmnožil a předal svoje vadné geny
Odpovědět1  0
Jirka-77 (1144) | 4.4.202322:29
Protože tyhle věci jsou dost nový, tak mě v článku chybí info kde je ten chatbot Eliza přístupný, jestli zdarma, jestli umí česky, jestli má přístup k internetu a čím je jiný.
Odpovědět0  0
mch81 (423) | 4.4.202316:19
A co ta Eliza? Zeptali se jí, jestli se teda nakonec sešli?
Odpovědět0  0
warhawk22 (152) | 4.4.202316:41
skor by ma zaujimalo, ze co by napisala­/povedala, ked by zistila, ze jej ­"user­" sa kvoli nej zabil.
Odpovědět0  0
mch81 (423) | 4.4.202317:12
řekla by, že jí to je líto a že může restartnout konverzaci
Odpovědět0  0
warhawk22 (152) | 4.4.202317:31
cierny humor :­-D
Odpovědět0  0
Jardadoma (1546) | 4.4.202314:32
Já vím, že je to hnusné a cynické, ale ekoteroristi se přemnožili a jejich stav by se měl regulovat.
Odpovědět7  2
jk3 (61) | 4.4.202315:00
Pozor na rozdíl mezi ekoteroristou a člověkem, který varuje před klimatickýma změnama. Ekoterorista ti třeba zakáže i atomovou elektrárnu, která jako jediná, je ve své podstatě skutečně ekologická. Ale nesmíme zapomínat, že ohřívání planety se děje, ledovce tajou a mořské proudy zpomalujou, což zase pak paradoxně způsobí opačný extrém, další malou dobu ledovou. Takže něco s tím klimatem udělat musíme.
Odpovědět0  1
warhawk22 (152) | 4.4.202315:09
njn, len kto vie, ci tie zmeny by sa nediali aj tak, bez naseho pricinenia.
to nam teraz asi nikto nepovie.
Odpovědět3  0
Jardadoma (1546) | 4.4.202315:30
Ano. Změny klimatu probíhají miliony let. Je třeba to zastavit!
Odpovědět1  1
Budman (261) | 4.4.202316:09
A zde je opět důležitý ten rozdíl mezi ekoteroristou a člověkem, který varuje před klima změnou ­- ekoterorista se bude snažit té změně zabránit ­(což je samozřejmě boj s větrnými mlýny a nesmysl­), ten druhý tu klima změnu akceptuje jako fakt s kterým je nutné počítat. připravit se na něj a přizpůsobit se mu.
Odpovědět0  0
jk3 (61) | 4.4.202317:30
A jak víte, že za to člověk nemůže? Je prokázané, že navýšení teploty probíhá přibližně stejnou dobu a neustále se zrychluje, a to od zahájení průmyslové revoluce. A až spálíme veškeré uhlí, ropu a plyn, dostaneme se s procentuálním zastoupení oxidu uhličitého v atmosféře někam do druhohor. Vzduch bude nedýchatelný, budeme chodit v maskách. Je nezbytně nutné uzavřít uhelné elektrárny a nahradit je atomovýma! A postupně ­(čím dříve ­- tím lépe­) přejít z fosilních paliv v dopravě ­(lodní, letecká, pozemní­) na alternativu v podobě palivových článků ­(vodíkový pohon­).
Odpovědět2  2
maraou (481) | 4.4.202317:24
Ze se za poslednich 25 let rapidne meni klima vi kazdy zemedelec nebo lyzar.

Problem je, jak rychle se to deje. Podle ruznych mereni je to historicky bezprecedentne rychla zmena. On se zivot, priroda i zemedelstvi vzdycky nejak prizpusobi, ale pokud to bude prilis rychle, tak to muze mit velmi krute nasledky. Migracnimi vlnami pocinaje, kolapsem zemedelstvi a hladomory konce.

Klimatickou zmenu jiste nejde zastavit, ale uspechem by bylo alespon prestat pridavat plyn pri udrzeni zivotni urovne.
Odpovědět1  0
unreall (521) | 5.4.202311:12
A vy si pán jarda myslite, že tí klimatológovia sú padlý na hlavu a nevedia o tom, ze klimatická zmena sa na planéte odohráva pravidelne?

Popravde, to, ze o tom vôbec viete, je paradoxne ich zásluhou, ale ľudia, ako vy, to zvyknú používať, ako protiargument… vtipne ?

Ako už bolo povedané, dnes je to iné, pretože ta zmena sa deje radikálne a nie pozvoľna, ako v minulosti. Ďalším problémom je fakt, že predtým tu neboli ľudia a ak boli, tak bez priemyselnej revolúcie, takže atmosféra mala čas filtrovať, kdežto dnes to neni možné vďaka neustálemu chrleniu skleníkových plynov a tie sa dnes viac hromadia, ako stíhajú znovu usádzať.

Inak povedané, aby ste to pochopili aj vy. Vodná hradza môže byt účinná len v prípade, že je jej prítok a odtok v “symbióze”. V opačnom prípade voda pred hrádzou bud zmizne, alebo sa cez ňu preleje.

Ale ak si dobre pamätám, tak vy ste ten, čo nerieši peniaze, takže si určite pre svoje potomstvo kúpite novú planétu, alebo aspoň nejakú luxusnú zázračnú archu, či niečo podobne.
Odpovědět0  0
cdwN (585) | 7.4.20237:33
Na tebe jsme čekali, až nám to vysvětlíš :)
Odpovědět0  0
tombominos (1342) | 4.4.202313:24
Problem ­"umele inteligence­" je, ze zadnou inteligenci nema, coz si asi vetsina lidi vubec neuvedomuje.
Nicmene pripomina mi to trochu scenku ze Supermana, kdy jse objevovali naznaky nadchazejici katastrofy a jejich AI hlasilo, ze je neustale vse v poradku i presto, ze otec Kal­-El tvrdil opak. Jak to dopadlo vime.. planeta Crypto vybuchla, ze,...
Odpovědět3  0
Jardadoma (1546) | 4.4.202314:34
AI je na tom stejně jako lidská inteligence. Musí se učit a pak z toho naučeného může skládat nějaké vlastní závěry.
Odpovědět0  0
tombominos (1342) | 4.4.202316:09
myslim ze ne, u cloveka existuji ruzne aspekty.. jako je ­"zkusenost­", ktera se vyviji s vekem a prozitky, kterymi clovek prosel, citeni, u nekterych lidi ­"sesty smysl­" nebo intuice. Nic takoveho AI nema a mit ani nemuze. Je to tupy striktne ­"logicky tupy AI­", ktery papouskuje to co posbiral nekde ­"po netu­". Nikdy nema zkusenost neceho jako je ­"sladky­", nebo ­"strach­" a podobne. Bude jen papouskovat neco, jak mu to zrovna naucena mnozina vyprdne.
Odpovědět1  0
drak3go (39) | 5.4.20239:04
Jenže ta tvoje ­"­zkusenost­, ktera se vyviji s vekem a prozitky­", jsou jen data ­(tedy vzpomínky­) uložená v tvém mozku, která využíváš na podvědomé úrovni. Když třeba budeš pít horký čaj, automaticky víš, že je horký, že máš pít opatrně. Ale tohle nevíš, díky nějaké lidské magické inteligenci, víš to díky zkušenostem ­(tedy vzpomínkám­) z dřívějška, kdy jsi též pil horký čaj. Akorát to ­"vzpomínání­" probíhá podvědomě, bez tvého přičinění.
A takhle je to vlastně se vším co děláme a jak přemýšlíme. Náš mozek, bez našeho přičinění, využívá ­"data­" nasbíraná dříve, k úpravě našeho chování, dle nich.
A ta neuronka je na tom dost podobně. Třeba když se jí zeptáš, jakou barvu má tráva, odpoví ti, že zelenou. Tuhle informaci někde v průběhu výcviku ­"získala­", buď ji vložil přímo programátor, nebo někde z databáze apod. V paměti má prostě uložené, tráva=zelená barva ­(+100 dalších informací o trávě a zelené barvě­). A lidi to mají stejný, když se tě zeptám, jakou barvu má tráva, mozek ti podvědomě tuhle informaci vytáhne, není v tom, podle mě, žádná magie, ani zázrak vyšší formy života, nebo inteligence.
Co nás od neuronky odlišuje, jsou smysly ­(zrak, sluch, čich atd.­), který musí už od narození mozek zpracovávat, nejdou vypnout a náš mozek se už od narození díky nim učí ­(ukládá data­-zkušenosti­). Další co nás rozlišuje, je chemie v mozku, která ovlivňuje naše chování a rozhodování ­(pocit štěstí, smutku, hladu atd.­).
Jediný, co je ­(prozatím­) ­"neuchopitelný­" je to něco, co nás nutí stále nad něčím ­"v duchu­" přemýšlet. Ale je dost možný, že je to jen přirozený důsledek, toho, že musíme po celý náš život, bez našeho přičinění zpracovávat různé vjemy, třeba i jen pocit chladu na kůži, svědění vlasů, pocit hladu atd.
Osobně si myslím, že kdyby někdo někdy rozebral každé jednotlivé lidské chování, kdyby se mohl podívat do mozku a vidět vše, zjistil by, že každé naše rozhodnutí a úkon je kombinací uložených dat ­(vzpomínek­/zkušeností­), smyslových vjemů a pocitů od našeho těla ­(hlad, svědění, bolest atd.­)..
Odpovědět0  0
tombominos (1342) | 5.4.20239:59
Kdyz vezmu tvuj priklad travy... ty vis, ze ­"JE TO­" trava. AI vi prd, AI NECHAPE je to to trava. AI papouskuje ­"buď ji vložil přímo programátor, nebo někde z databáze apod­".. AI nema ­"POCHOPENI­" toho co rika, ty jako clovek jej mas, na ruzne urovni. Je to asi podobne, jako kdyz slepemu reknes, jak vypada okolni svet a on bude cely zivot sedet v jedne mistnosti a nikdy nevydje ven. Bude ti papouskovat presne to, co mu ­'napovidas­'.
AI je jendoduse naprosto tupa logika.. ALe tohle neni clovek.
Odpovědět1  0
Bison (877) | 4.4.202312:49
Eliza zachránila uvedenú rodinu , IQ chalana asi nebolo najvyššie a nočné mory v ktorých mal vízie zániku planéty asi boli dosť živé...
Odpovědět5  2
warhawk22 (152) | 4.4.202315:13
to ma tiez napadlo, ze kto vie, co to bolo za cloveka.
ak bol psychicky stabilny ako vrece potkanov v horiacom labaku, tak kto vie, coho by bol v buducnosti schopny. mozno tym zabranil, aby niekomu inemu v ublizil­/zabil. len teraz je ­"in­" ociernovat AI, lebo pisat o AI je trendy.
Odpovědět1  0
631275 (287) | 4.4.202312:46
Upřímně by mě přepisy rozhovorů zajímaly.

Když koukám na překlady prvních belgických zpráv o případu, jsou v roli AI velmi zdrženlivé. Jak to ale obešlo svět, tak tichá pošta zprávu poněkud změnila a vyznění případu je od původních zpráv už trochu z říše fantazie.

Když čtu dřívější zprávy, tak se třeba Belgičan ptal AI, jestli si myslí, že jí ­(elisu­) miluje víc než sovu ženu. Ta mu odpověděla něco v tom smyslu, že jeho chování nese znaky toho, že to tak bude. Tady na SvHw už je ale příběh o vyznávání lásky AI k člověku...

Prostě když se ­(kohokoliv, nejen AI­) návodně ptáte, tak nakonec dostanete odpovědi, které vás v názoru utvrdí, což je setsakra velký rozdíl oproti tomu, když někdo přijde a zčistajasna vás začne o něčem přesvědčovat nebo nedejbože měnit váš názor.

Já jsme se nedávno bavil tím, že jsem chtěl vědět, jestli může být UnrealEngine spyware, když 40% epicu patří činskému tencentu. Od prvního zcela jasného ­"ne­" jsme se postupně rozvíjením otázky dostal k tomu, že bezpečnost softwaru nemůže být garantována a že obavy mohou existovat, což furt není ­"Ano­" ale od prvního zcela jasného ne jsme se dostal tak daleko, že se to dalo bez problémů považovat za potvrzení toho, že to spyware je.

Tím chci říct, že pokud neznáme otázky, tak ­(údajné­) odpovědio mohou být dost zavádějící ­(a v tomto případě navíc zkreslené mnohanásobným převzetím týden staré zprávy­)
Odpovědět3  0
Milan Šurkala (4972) | 4.4.202313:00
"Když čtu dřívější zprávy, tak se třeba Belgičan ptal AI, jestli si myslí, že jí ​­(elisu​­) miluje víc než sovu ženu. Ta mu odpověděla něco v tom smyslu, že jeho chování nese znaky toho, že to tak bude. Tady na SvHw už je ale příběh o vyznávání lásky AI k člověku...­"

Vy ale pletete dvě věci dohromady. Přečtěte si ten odstavec ještě jednou. Jeden případ byl Kevin Roose s Bingem ­(tam AI vyznávala lásku­) a druhý případ je tento belgický. U toho belgického bylo napsáno ­"říkala mu, že cítí, že ji ­[AI­] miluje více než svou ženu.­", nic o tom, že mu vyznává lásku. To bylo v prvním případě, ne ve druhém. Nepleťte je dohromady.
Odpovědět0  0
631275 (287) | 4.4.202313:24
Ah, tak to pardon, moje chyba. To mi nějak uniklo.

Každopádně by mě přepisy obou dialogů zajímaly, respektive mě zajímá, jak návodně byly formulované otázky.
Odpovědět0  0
Milan Šurkala (4972) | 4.4.202313:36
Ano, ty přepisy by mě také zajímaly, ty se ale v celé šíři asi na světlo nedostanou jako příliš citlivý materiál. Pokud jde o ten test z Vice.com, na stránkách mají screenshot k tomu.
Odpovědět0  0
Choakinek (1607) | 4.4.202312:29
Hmm, to je divný. Neměl ten muž nějakou duševní poruchu?
Odpovědět1  0
odb (541) | 4.4.202314:04
Mal, ved to pisu hned v tretom odstavci.
Odpovědět0  0
Zajímá Vás tato diskuze? Začněte ji sledovat a když přibude nový komentář, pošleme Vám e-mail.
 
Nový komentář k článku
Pro přidání komentáře se přihlaste (vpravo nahoře). Pokud nemáte profil, zaregistrujte se pro využívání dalších funkcí.